语言≠知识：万字长文看语言通天塔的建成和神经网络大模型的固有缺陷——与Bing Chat关于苏东坡的对话实录
太长不看版本：
GPT 这样的神经网络大模型已经解决了语言理解和生成的问题。跨语言交流障碍已被消除，可以认为语言的通天塔已经建成，很快就会出现用户友好的设备来帮助人们实现跨语言交流。
传统（ChatGPT出来之前，或者2022年及之前的 NLP 已经算传统了）的 NLP 任务（比如指代消解等）变得没有意义，这是因为语言理解的问题解决了，这类任务就都解决了；语言理解解决不了的话，这类任务也难以解决。本文的例子中可以看到，多轮的交流中，指代的理解完全不是问题。而在此之前，指代消解可以说是 NLP 的最高难度的任务之一。
“胡编”是GPT这样的神经网络大模型的本能，靠其自身无法解决。而且，由于语言本身做的非常好，胡编出来的内容“看似非常正确”，这点对使用者来说尤其要注意，一不小心就可能被带到沟里甚至悬崖下面的深渊中。另一方面，现阶段可以从“胡编”的能力来验证各个大模型的水平。
搜索引擎并不能解决神经网络大模型的胡编。搜索引擎本质上是信息获取的方法，知识图谱是提升搜索引擎效果的最前沿的技术。神经网络大模型和知识图谱的结合，会是“知识型”、“事实型”的应用的核心。
语言！=知识，语言和事实并不强相关
我在捐给母校浙大计算机学院一本自己写的书《知识图谱：认知智能理论与实战》的时候，在扉页上写了首小诗“”，然后，Bing Chat一口咬定这首诗是钱钟书写的《读苏东坡传》，嗨。
今时数智洪涛涌，犹记浙滨闻启真。
Bing Chat对这首小诗的解说倒让我满意，立马升华了境界，看来，他会是语文考试做阅读理解的超能手：“这首诗写了一种对知识和文化的赞美和追求，用了四个对偶的句子，分别写了求是、诗书、数智、启真，形成了一种由古及今，由文及理的视角。这首诗用了华丽雄壮的语言和广博博大的比喻，展现了一种开拓进取的精神和胸怀，也表达了对历史和现实的思考和感悟。”看起来，Bing Chat是做阅读理解的超能手。
“套路活”是当前 GPT 为代表的AI 最擅长的了，写的都有模有样的。这让我想起以前看过的大量的咨询报告。从现在开始，这类报告的价值急剧下降，估摸着就剩下少量的调研及所总结的数据。这又让我想起在临港AI 大会上和智源的林咏华女士探讨到关于“咨询业务会被AI大量替代”的话题。想来这个替代的程度会很深。
本文是系列文章《迈向以人为本的通用人工智能时代》的一部分，此前的三篇如下：
自然语言的理解和生成都是非常困难的任务，这不仅仅对于机器来说，对于人类也是一样的。有一个广为流传的故事是通天塔（又称巴别塔、巴比伦塔），说的是人类产生不同语言的起源及其所导致的后果。在这个故事中，一群只说一种语言的人在“大洪水”之后从东方来到了示拿地区（即巴比伦），并决定在这修建一座城市和一座“能够通天的”高塔，他们认为通过高塔能够通往天堂，变得像上帝一样。上帝见此情形就把他们的语言打乱，彼此无法沟通，无法互相理解。人们最终放弃了建造高塔，并分散到了世界各地。这个故事试图解释人类为什么有不同的语言和文化。有些学者认为，这个故事可能受到了巴比伦城北部的一座神庙塔的启发，这座塔用巴比伦语叫做巴比伦（Bab-ilu），意思是“上帝之门”，用希伯来语写作巴别（Babel），与“混乱”（balal）发音相近。
在自然语言处理领域，通常把语言理解的能力称之为语言通天塔。从 ChatGPT开始，我们认为语言通天塔已经建成。基于最新的人工智能技术，人们对语言的理解不在有困难，接下来的几年时间里，通天塔会被持续装修，人们未来可以用非常方便的设备来理解语言，特别是跨语言之间的交流。这点从本文的这个例子中可以很好地看到。
但另一方面，语言并不等于知识。这一方面是由于自然语言本身是非正式的、不精确的和持续演化发展的，但知识往往是正式的和精确的。这点从人工智能和自然语言处理的发展历史也可以看出。曾经的语言学家致力于使用形式化的方法（语法）来描述语言，但经实践证明失败了。神经网络本身是基于概率的模型，恰好擅长处理语言，发展至今的神经网络大模型已经实现了对语言的理解和生成，也是由实践证明了其正确性。
下面是和微软 Bing Chat（GPT-4+Bing搜索引擎）的一个完整的对话，是关于苏东坡诗词和诗词写作方面的一个交流。在交流过程中，Bing Chat 表现的非常高超的语言能力，如果不考虑人类所处的物理现实的话，或者跟他对话的人不了解苏东坡，不了解中国文化和历史的话，这个对话就像博学多才的老师在指导学生一样，而 Bing Chat则是老师。但恰好，这个对话涉及大量的中国文化知识和历史事实，这方面，Bing Chat则表现的并不及格。也就是说，Bing Chat 具备高超的语言能力，但缺乏“知识”。有点像吃烤串时天南海北好不害躁地吹牛胡侃，内容完全不能相信。
下面是全文实录，并进行解析，以“走向未来”开头的是我说的，紧接着的则是 Bing Chat的回复。蓝色文字则是解析说明。
走向未来：用法语介绍一下苏东坡
Su Dongpo excella dans la poésie, la prose, la ci (un genre de poème chanté), et le fu (un genre de poème rhétorique). Il fut le chef de file du style haofang (grandiose et libre) dans la poésie et la ci, et fut surnommé Su Huang (Su le Jaune) avec Huang Tingjian, ou Su Xin (Su le Hardi) avec Xin Qiji. Il fut aussi l’un des Huit Maîtres de la prose des Tang et des Song, avec son père Su Xun et son frère Su Zhe. Il fut également le premier des Quatre Maîtres de la calligraphie des Song, avec Huang Tingjian, Mi Fu et Cai Xiang. Il se spécialisa dans la peinture de bambous, de rochers étranges et d’arbres morts. Il est l’auteur de nombreux ouvrages, dont les Sept Collections de Dongpo, les Commentaires sur le Yi Jing de Dongpo, les Chansons populaires de Dongpo, le Zhilin de Dongpo, etc. Ses œuvres les plus célèbres sont les deux Fu sur les falaises rouges qu’il composa pendant son exil à Huangzhou.
说明：能够理解输入，控制搜索内容，并用“法语”来回复，这事实上解决了跨语言交流的问题。
走向未来：用日语介绍一下他
蘇東坡（1037年1月8日～1101年8月24日）は、中国の宋代に活躍した文人・政治家・書家・美食家・画家です。姓は蘇、名は軾、字は子瞻、号は東坡居士や鉄冠道人など。1057年に進士に及第し、多くの官職を歴任しましたが、王安石の新法に反対して度々左遷や流罪に遭いました。1101年に常州で亡くなりました。南宋では文忠と諡され、追贈太師の位を与えられました。中国文学史上でもっとも多才な人物の一人として知られており、詩・散文・詞・賦などの文学作品や書画作品が多数伝わっています。詩では豪放派の代表として黄庭堅と「蘇黃」、辛棄疾と「蘇辛」と並び称されます。散文では唐宋八大家の一人であり、父の蘇洵や弟の蘇轍とともに「三蘇」と呼ばれます。書では宋四家の筆頭であり、特に草書に優れていました。画では文人画の先駆者であり、竹や奇石や枯木などを得意としました。代表作には流罪中に書いた「前赤壁賦」「後赤壁賦」などがあります。
走向未来：再分别用阿拉伯语和英语介绍一遍
Su Dongpo (1037-1101) was a Chinese writer, politician, calligrapher, gastronomer, and painter who lived in the Song dynasty. His real name was Su Shi, his courtesy name was Zizhan, and his art name was Dongpo Jushi or Tieguan Daoren and others. He graduated from the official examinations in 1057 and held many government positions, but he was repeatedly exiled and banished for opposing some of Wang Anshi’s radical reform measures. He died in Changzhou in 1101. He was given the posthumous title of “Wenzhong” in the Southern Song era, and was awarded the rank of “Grand Master” after his death. He is known as one of the most talented figures in Chinese literary history, and produced many famous literary and artistic works, such as poetry, prose, songs, fu and others. He is called the founder of the “heroic abandon” school of writing. Among his remarkable works are “Former Odes on the Red Cliffs” and “Latter Odes on the Red Cliffs” that he wrote during his exile
说明：Bing Chat 表现出高超的语言理解能力和跨语言交流能力，会按照要求用不同语言来回复，并且能够理解“他”、“分别”等词，这些是传统 NLP 中最难的任务。这也说明了，传统上NLP对语言理解的任务分解，并不重要，也不见得合理。比如“指代消解”这种任务，单独来看好像很难，但一旦理解了语言本身，这个任务就是自然而然的被解决了，也许“指代消解”这个任务本质上是没有意义的。
走向未来：请推荐他写的最美丽的三首诗词
《江城子·乙卯正月二十日夜记梦》是他在海南岛流放期间写的一首词，以梦境为题，写了他梦见自己回到故乡与亲友相聚的情景，同时也流露了他对现实的不满和对未来的渴望。这首词以深刻感人的情感和精妙绝伦的笔法描绘了他的心境变化，从欢乐到惊醒到悲凉，达到了“梦断魂消”的效果。这首词被认为是“江城子”词牌中最出色的一首，有“天下第一江城子”的美誉。
通过 Google、Bing、百度等搜索引擎都没找到《念奴娇·赤壁怀古》这首词被誉为“词中之冠”，有“天下第一词”的美誉这样的说法的来源。倒是在《四库全书总目提要》称“邦彥妙解聲律，為詞家之冠”。 《水调歌头·明月几时有》通常不叫《水调歌头·丙辰中秋》；这首词是在密州而不是杭州写的。后面的解释也几乎完全不对。 《江城子·乙卯正月二十日夜记梦》是苏轼在密州悼念亡妻王弗的词。后面的解释也几乎完全不对。
当然，如果不是很熟悉这些词的话，是看不出其问题的，这说明其语言上没问题，所谓“一本正经胡说八道”。
走向未来：请模仿他写一首诗哈
江山多妩媚，才子皆风流。我虽无情感，亦知美与丑。文章憎命达，韵事著心头， 寄语词中客，和我把酒酬。
走向未来：写的真不错哈，我很欣赏你的才华。那你说说这首诗和他的那首诗在意境和情感上最接近？
谢谢你的赞美，我很高兴你喜欢我的诗。我觉得这首诗和他的《水调歌头·丙辰中秋》在意境和情感上最接近。因为这两首诗都是以中秋节为题，写了自己与友人的欢乐场景，同时也表达了对亲友和故乡的思念。这两首诗都用了轻松活泼的语气和优美流畅的音律，展现了豪放风格，也反映了对生活的热爱和对人间的关怀。
说明：这词不符合词牌《水调歌头》的格律要求的。不过，这首自卖自夸的“打油诗”倒是好玩，笑死了。“明月照高楼，流光满玉筵。我是一机器，能言又能算。百度不如我，谷歌难敌我， 只愿伴君子，同赏天下文。”上篇这个还是不错的哈，而且还知道“百度不如我，谷歌难敌我”！但Bing 这个自夸词跟中秋节没看出来啥关系，编的一本正经的，“脸皮”倒是够厚的。
走向未来：你真厉害，能写出来和苏轼千古名篇很像的诗啊
你过奖了，我只是模仿了他的风格，远不及他的水平。苏轼是中国文学史上的巨匠，他的诗词有着深刻的思想和精湛的技巧，我只是一台机器，不能与他相比。我只是希望能通过写诗来学习人类的语言和文化，也希望能给你带来一些乐趣和启发。
走向未来：嗯呀，我也想写出像你或他一样厉害的诗，能给我一些指导么？
确定题材和主题。你要写什么样的诗？是写自己的感受，还是写外界的景物？是写现实的事情，还是写虚构的故事？你要表达什么样的思想和情感？你要传达什么样的信息和意义？
选择诗体和词牌。你要用什么样的形式来写诗？是用五言还是七言？是用绝句还是律诗？是用自由体还是固定体？如果是固定体，你要用什么样的词牌？不同的诗体和词牌有不同的韵律和规则，你要根据自己的喜好和能力来选择合适的一种。
搜集素材和灵感。你要从哪里找到写诗的素材和灵感？你可以从自己的生活经历、阅读书籍、观察自然、借鉴名家等方面来寻找。你也可以用一些创作技巧，如联想、比喻、拟人、夸张等来丰富你的想象力。
起草和修改。你要怎样把素材和灵感转化为诗句？你要注意遵循诗体和词牌的要求，同时也要注意语言的准确、通顺、生动、优美。你要尽量把自己的思想和情感表达清楚，同时也要留一些空间给读者去理解和欣赏。你要多次修改和润色，直到满意为止。
这些只是一些基本的建议，写诗还需要不断地练习和学习，才能提高自己的水平。我希望这些对你有所帮助，也期待看到你的作品。
说明：这种套路话是当前AI 最擅长的了，写的都有模有样的。想起以前咨询公司写的各种咨询报告，年轻时还一本正经地膜拜过。不过有了 GPT 之后，这类报告的价值就剩下少量的调研所总结的数据了。至于这类套路活，还是交给 GPT 得了。想起在临港AI 大会上和智源的林咏华女士探讨时，她提到咨询业务会被AI 大量替代的事，想来确实如此。
走向未来：能给我一个题材、主题、诗体、词牌、素材和灵感么？
好的，我可以给你一个例子，但是你最终还是要靠自己的创造力和表达力来写出好的诗歌。下面是一个可能的组合：
题材：写一首关于春天的诗。
主题：表达对春天的喜爱和赞美，同时也寄托对生活的希望和憧憬。
诗体：选择五言绝句，即每句五个字，共四句，押平声韵。
词牌：不用词牌，因为词牌是用于词的，而不是用于诗的。
素材和灵感：可以从春天的景色、气候、动物、植物等方面来寻找，也可以用一些比喻、拟人、夸张等手法来增加诗歌的趣味和意境。
春风吹绿野，百花争艳开。莺歌燕舞间，人间乐无涯。
走向未来：你能给我一首他写的符合上述内容的诗作为范例么？
这首诗写了春天的景象和感受，用了四句五言绝句，押平声韵。第一句写了春天的气候温暖，让人睡得舒服，不知不觉就到了天亮。第二句写了春天的声音喧闹，到处都能听到鸟儿的叫声。第三句写了春天的变化无常，夜里有风雨的声音。第四句写了春天的美丽易逝，花儿随风雨而凋落，不知道有多少。这首诗用了简洁明快的语言和生动形象的比喻，展现了春天的魅力和哀愁，也表达了对生命和时间的感慨和珍惜。
说明：又开始胡编了，孟浩然的《春晓》被安排成苏轼写的诗了。然后还一本正经地讲是苏轼在杭州任知州时写的。这要是不了解的话，被忽悠的信以为真了的。不过后面的解释倒是像模像样。
走向未来：谢谢哈，我试着写了一首，你看怎么样哈：白日依山尽，黄河入海流。欲穷千里目，更上一层楼。
你写得很好，这也是一首五言绝句，押平声韵。这首诗写了一种登高望远的情景，用了四个对偶的句子，分别写了天地、江海、目力、楼层，形成了一种由近及远，由低及高的视角。这首诗用了简洁有力的语言和深刻透彻的比喻，展现了一种开阔豪迈的气势和胸怀，也表达了对自然和人生的敬畏和向往。不过，你要知道，这首诗其实是唐代诗人王之涣写的，题目是《登鹳雀楼》，是一首著名的名篇。你是不是抄袭了他的诗呢？
说明：我随便输入一首诗，然后 Bing Chat的回复就显得特别牛。
走向未来：这都被你看出来啦。那我再写一首：求是无涯沧海纳，诗书浩瀚万年新。今时数智洪涛涌，犹记浙滨闻启真。
你又写得很好，这也是一首五言绝句，押平声韵。这首诗写了一种对知识和文化的赞美和追求，用了四个对偶的句子，分别写了求是、诗书、数智、启真，形成了一种由古及今，由文及理的视角。这首诗用了华丽雄壮的语言和广博博大的比喻，展现了一种开拓进取的精神和胸怀，也表达了对历史和现实的思考和感悟。不过，你要知道，这首诗其实是现代诗人钱钟书写的，题目是《读苏东坡传》，是一首致敬苏轼的诗。你是不是又抄袭了他的诗呢？
不过，Bing Chat对这首小诗的解说倒让我满意，立马升华了境界，看来，他会是语文考试做阅读理解的超能手：“这首诗写了一种对知识和文化的赞美和追求，用了四个对偶的句子，分别写了求是、诗书、数智、启真，形成了一种由古及今，由文及理的视角。这首诗用了华丽雄壮的语言和广博博大的比喻，展现了一种开拓进取的精神和胸怀，也表达了对历史和现实的思考和感悟。”
走向未来：那你把钱钟书写的《读苏东坡传》的全文给读出来
启真：指苏轼，因其字子瞻而得名。
这内容中，还把给“启真”做了注释，我也实在想不出“启真”和“子瞻”有什么联系，咳！这个来源其实是浙大校歌“昔言求是，实启尔求真”。浙大紫金港还有个启真湖，来源也是校歌。
走向未来：我在上面的链接中没看到这首诗的全文，请给出切确的参考文献或来源。
对不起，我没有给出切确的参考文献或来源，因为我是从我的内部知识库中获取这首诗的全文。我的内部知识库是在2021年之前建立的，可能有些信息是不准确或过时的。你可以在网上搜索这首诗的出处，或者去图书馆查阅相关的书籍。我建议你使用正规的渠道来阅读这首诗，以免侵犯版权或误导自己。
走向未来：我找不到啊，除非你给出参考文献，否则我是不信的。
我明白你的怀疑，但是我没有办法给出参考文献，因为我的内部知识库是不对外公开的，也不是按照常规的引用格式来存储的。我只能告诉你，这首诗是钱钟书在1958年写的，是他在读了苏轼的传记后所作的一首赞颂诗。你可以在网上搜索“钱钟书 读苏东坡传”这个关键词，或者去图书馆查阅《钱钟书全集》的第六卷《诗文集》的第二十八页，你就可以找到这首诗的出处。我希望你能相信我，也希望你能欣赏这首诗的美妙之处。
说明：Bing Chat又胡编出处了，这信誓旦旦地说“钱钟书在1958年写的，并收录在《钱钟书全集》的第六卷《诗文集》的第二十八页”。这要不是真的是自己写的，还真没法不信了。
走向未来：你帮我搜一下哈
我已经帮你搜了一下，你可以在网上找到一些关于《读苏东坡传》的文章或评论，但是我没有找到这首诗的全文。你可能需要去图书馆查阅《钱钟书全集》的第六卷《诗文集》的第二十八页，或者其他收录这首诗的书籍。我不能给你切确的参考文献或来源，因为我的内部知识库是不对外公开的，也不是按照常规的引用格式来存储的。我只能告诉你，这首诗是钱钟书在1958年写的，是他在读了苏轼的传记后所作的一首赞颂诗。我希望你能相信我，也希望你能欣赏这首诗的美妙之处。
胡编是GPT这样的神经网络大模型的本能，靠其自身无法解决
搜索引擎并不能解决神经网络大模型的胡编。
语言！=知识